Knowing What to Solve Before How: Preplan Empowered LLM Mathematical Reasoning
先理解再求解:预计划增强的LLM数学推理框架
🧭 LLM推理范式·规划与预计划 ★ 深度解读
Hong Kong University of Science and Technology (Guangzhou)
在问题→计划→CoT之间插入显式的“预计划”阶段,明确分析问题类型与陷阱,并通过防剧透过滤与复合奖励保证计划真正遵循预计划,在不增加推理开销下提升数学推理性能。
📌 工作参考价值(5 点)
- 面向电商/推荐/Agent从业者的可借鉴点:
- 在Agent规划中引入显式意图分析阶段:类似于预计划,在生成执行计划前,先让模型分析用户意图、可用工具、约束和潜在陷阱,再输出具体步骤;可参考论文中“先what后how”的范式分离设计,减少规划错误。
- 用防剧透过滤器清洗训练数据:当需要为推理或规划链条生成中间分析数据时,可使用规则化spoiler-score检测器过滤掉“把答案/推导提前泄露”的低质量样本,保证中间分析只停留在高层策略而非具体计算。
- 设计复合奖励让中间输出被真正使用:对于多阶段的生成(如推荐理由→候选生成→排序),可在RL训练时引入“前后一致性奖励”,强制模型生成的理由真正被下游模块遵循,而非装饰性文本。
- 零额外推理开销的高阶组织:PPC范式表明,增加结构化的前序分析不会膨胀总token数,反而因减少了后续推理的试错而更高效;这给多阶段生成系统(如多Agent推理链)提供了设计信心:引入规划摘要层可能整体提速。